Garry Kent Masciarelli sinh tại The Bronx, New York vào ngày 13 tháng 11 năm 1934,[4] trong gia đình của Marjorie Irene (nhũ danh Ward), một giáo viên tap dance và Anthony Wallace Masciarelli, một nhà làm phim.[5] Cha của Marshall mang dòng máu Ý, với gia đình cư ngụ ở San Martino sulla Marrucina, Chieti, Abruzzo, Ý.[6] Mẹ của Marshall có gốc gác từ Đức, Anh và Scotland.[7]

Họ của gia đình được cha của Marshall đổi từ "Masciarelli" sang "Marshall" sau khi ông chào đời năm 1934.[8] Gia đình còn bao gồm hai người chị gái của Marshall, Penny Marshall và Ronny Hallin. Ông theo học tại Public School 80 và De Witt Clinton High School ở Bronx. Sau khi tốt nghiệp Trung học, ông đăng ký tại Đại học Northwestern, theo ngành báo chí.[9] Marshall viết về thể thao trên báo The Daily Northwestern của trường và Alpha Tau Omega.[10][11]